Dynamic Harness Search: Building Multi-Agent Systems Per-Query via Prediction
动态 Harness 搜索:按查询预测构建多智能体系统
🧭 成本敏感的按 query 多智能体编排搜索 ★ 深度解读
Google · Arizona State University
SHIFT 用本地小模型预测 harness 效用并以 MCTS 按查询构造多 Agent 系统,无需在线执行候选,精度与成本双优
📌 工作参考价值(4 点)
- 把 agent harness 定义为可执行图(roles/directives/tools/edges),在请求级用本地小模型(如 Gemma-2B + LoRA)做 MCTS 选择,而不是固定 pipeline;电商场景可按 query 决定是否需要「检索→规划→校验」多人链路,还是仅一个 reader/单步商品查询,降低高耗时多 Agent 编排的无效消耗。
- 成本敏感的价值函数值得直接复用:reward=成功项 - 归一化 token/latency/tool/agent 惩罚,用 binary cross-entropy + pairwise ranking loss 训练 value head;线上可选择 value 最高的 harness 而非最强 harness,类似路由/降级策略,在牺牲极小精度下大幅省 token。
- 搜索只在本地模型内完成,候选执行不进入在线路径;MCTS 用虚拟损失实现批量并行,H100 上构造 harness <1s,在线成本接近固定编排。适合已有 workflow/Agent 编排平台做逐 query 编排,或作为 offline 训练 policy、online value 决策的两段式部署。
- 动作空间从最小 harness(single Coder 无 tools)开始,40 个 action 共享跨 domain 的结构/指令,工具权限随 domain 变化;这种冷启动方式可迁移到新的商品类目/垂直搜索,通过少量执行数据训练 architect,再迁移到更难任务。